Câu lạc bộ

Ancelotti bắt đầu sự nghiệp cầu thủ của mình vào năm 1974 với Parma. Năm 1979, ông chuyển đến A.S. Roma. Tại đây, ông đã giành được danh hiệu vô địch Serie A mùa bóng 1982–83 và 4 lần giành Coppa Italia.

Từ năm 1987 đến 1992, ông thi đấu cho A.C. Milan, và cùng Milan giành 2 cúp C1 châu Âu liên tiếp trong các mùa giải 1988–89 và 1989–90. Những đồng đội của ông trong giai đoạn này có rất nhiều hảo thủ như Paolo Maldini, Franco Baresi, Mauro Tassotti và Alessandro Costacurta ở hàng hậu vệ; Frank Rijkaard, Ruud Gullit, Roberto Donadoni ở hàng tiền vệ và tiền đạo Marco van Basten.

Trong trận bán kết lượt về cúp C1 châu Âu 1988–89 với Real Madrid, Ancelotti đã rê bóng qua 2 cầu thủ Real Madrid F.C. trước khi có cú sút xa ghi bàn mở tỉ số trong chiến thắng 5 – 0 của Milan. Kết thúc trận đấu Milan giành chiến thắng chung cuộc với tổng tỷ số 6 – 1 và qua đó giành quyền vào chơi trận đấu cuối cùng của mùa giải. Trong trận chung kết tại Camp Nou sau đó với Steaua Bucureşti, Ancelotti cũng đã thi đấu trọn vẹn 90 phút. Góp công giúp Rossoneri giành chức vô địch châu Âu lần thứ 3 trong lịch sử với một chiến thắng huỷ diệt 4 – 0.Ancelotti chính thức giải nghệ cầu thủ từ năm 1993, sau khi chơi 283 trận tại Serie A và ghi được 22 bàn thắng. [liên kết hỏng]

Đội tuyển quốc gia

Ancelotti có bàn thắng duy nhất cho đội tuyển Ý là trong trận hòa 1 – 1 với đội tuyển Hà Lan vào ngày 6 tháng 1 năm 1981 trong khuôn khổ giải Mundialito 1980 (một giải đấu nhỏ được tổ chức giữa những đội tuyển đã từng vô địch thế giới) diễn ra trên đất Uruguay. Sau đó, ông đã cùng đội tuyển Ý tham dự World Cup 1986 và World Cup 1990, cùng với Roberto Donadoni, Roberto Mancini và Paolo Maldini. Ancelotti đã có 26 lần khoác áo đội tuyển trước khi tuyên bố chia tay đội tuyển vào năm 1991.